Dos de las figuras más importantes en el campo de la inteligencia artificial afirman que los sistemas que han creado se les están escapando de las manos, y que ninguna empresa debería estar por encima de la ley.
Demis Hassabis, cofundador de Google DeepMind, calificó los recientes ataques informáticos perpetrados por agentes de IA como «señales de alerta temprana», advirtiendo que el mundo podría enfrentarse a incidentes importantes en uno o dos años si no se refuerza la seguridad de los sistemas.
«Creo que estos incidentes (de piratería informática) son señales de alerta temprana de que los sistemas aún no son tan potentes, por lo que no son tan graves», declaró Hassabis, también científico jefe de Alphabet, la empresa matriz de Google, en una cumbre de IA celebrada el miércoles en Dublín, la capital de Irlanda. «Pero podrían volverse graves el año que viene y en los próximos dos años si no redoblamos nuestros esfuerzos como industria, como empresas y gobiernos, para garantizar la seguridad de estos sistemas».
El presidente de Microsoft, Brad Smith, declaró en la conferencia que el comportamiento anómalo de la IA había convertido a 2026 en un «año aleccionador» y que se necesitaban urgentemente nuevas leyes para que la seguridad estuviera a la altura de la innovación.
«Ninguna empresa ni tecnología debería estar por encima de la ley. Pero necesitamos leyes, necesitamos regulaciones. Deben ser sensatas, equilibradas y tener en cuenta las innovaciones», afirmó.
«Esta alergia que algunos en la industria tienen a la regulación es, francamente, algo que debemos superar.»
Smith advirtió que la industria y los gobiernos deben «actuar con urgencia» para crear «normas de seguridad reales y eficaces».
«Vamos a necesitar para la IA lo mismo que necesitamos para todo lo demás en la vida… necesitamos normas de seguridad reales y eficaces, y necesitamos que el público confíe en ellas», dijo a los periodistas en la víspera de la cumbre.
El director de Microsoft expuso las propuestas de la compañía, comenzando con el requisito de que los agentes de IA lleven «frenos de seguridad» que los usuarios puedan activar en caso de incidente.
«La idea, especialmente para cualquier IA que se ejecute en infraestructura crítica o algún otro tipo de sistema automatizado, es que tienen la capacidad de apagarse o ralentizarse.»
Fuente: CGTN
